Năm 1934, Liên Xô bắt đầu thiết kế khẩu tiểu liên PPD-34, loại súng tiểu liên này sử dụng loại đạn mới nghiên cứu là 7.62×25mm Tokarev. PPD được chính thức đưa vào sử dụng trong Hồng quân từ năm 1935, nhưng chỉ trang bị một số lượng nhỏ cho lực lượng an ninh, biên phòng và Bộ nội vụ NKVD của Nga. Do vậy, tới năm 1940 thì hầu hết lính bộ binh Liên Xô vẫn chỉ được trang bị khẩu súng trường không tự động lên đạn từng viên bằng tay Mosin Nagant. Một số lính được trang bị súng trường bán tự động SVT-40.

Trong Chiến tranh Liên Xô - Phần Lan, súng tiểu liên Suomi KP-31 của Phần Lan với ưu thế nhỏ gọn, dễ cơ động trong tác chiến, tốc độ bắn cao, lượng đạn bắn ra nhiều như súng máy đã chứng tỏ ưu thế khi đánh cận chiến trong những vùng rừng rậm, chiến hào và đô thị, vốn có không gian chật hẹp. Tại những khu vực này, súng trường bắn phát một Mosin-Nagant, súng trường bán tự động SVT-40 và trung liên DP-28 gần như tỏ ra vô dụng do cồng kềnh và nặng nề. Hơn nữa, súng trường bắn phát một như Mosin-Nagant lại có thêm một nhược điểm nữa, đó là tốc độ bắn quá chậm, chỉ khoảng 10 - 15 phát/phút.

Từ thực tế này, lãnh đạo Hồng quân quyết định phải trang bị số lượng lớn súng tiểu liên cho quân đội. PPD-40 nhanh chóng bộc lộ nhược điểm lớn là việc sản xuất số lượng lớn (để trang bị cho toàn bộ quân đội) gặp khó khăn. Vậy nên, PPSh-41 được thiết kế nhằm đáp ứng cho việc thay thế PPD-40.

Dự án thiết kế PPSh-41 được triển khai vào giữa năm 1940 bởi Georgy Semenovich Shpagin. Trước đó, tác giả Shpagin của PPSh-41 đã trở nên nổi tiếng trong Hồng Quân khi là người đã cải tiến cơ chế nạp đạn của khẩu DK (DShK) vào năm 1938. Những nơi đầu tiên sản xuất súng là các nhà máy quân khí ở thủ đô Moskva. Đến tháng 6 năm 1941, khoảng vài trăm khẩu đã được sản xuất thử. Đến cuối năm 1941, 155.000 khẩu đã được xuất xưởng. Tới mùa xuân năm 1942, trung bình mỗi ngày có khoảng 30.000 khẩu PPSh-41 được xuất xưởng. Khẩu PPSh-41 có thể sản xuất được nhanh chóng và nhiều như thế vì nó có cấu tạo rất là đơn giản. Chỉ cần một nhà kho với một cái bàn đủ rộng, vài con ốc vít, gỗ, thép, một cái máy tiện thủ công chạy bằng tay là đủ để có thể sản xuất khẩu PPSh-41 rồi. Nếu được sản xuất thủ công kiểu này thì mất khoảng 7,3 giờ công lao động để hoàn thiện, so với 13,7 giờ của khẩu PPD-40. Còn nếu sản xuất theo quy mô công nghiệp với máy móc, thiết bị chuyên dụng thì chỉ mất khoảng 6 giờ để hoàn thiện 1 khẩu.

Đến hết cuộc chién, hơn 6 triệu khẩu PPSh-41 đã được sản xuất (để so sánh, khẩu MP-40 của Đức chỉ sản xuất được hơn 1 triệu khẩu). Nếu như vào đầu chiến tranh, tỷ lệ trang bị súng tiểu liên của bộ binh Đức nhiều gấp 3 lần so với Liên Xô thì đến năm 1943, chỉ số này đã ngang nhau, và đến cuối chiến tranh thì Liên Xô đã cao gấp đôi Đức.